The Uniform Distribution(균등 분포)

어떠한 닫힌 실수 구간

[a, b]

에 대해서 그 확률이 모두

\frac{1}{b - a}

이고, 다른 구간은 확률이 모두 0인 continious distribution.

확률이 $\frac{1}{b - a}$ 인 이유는, 모든 구간에 대한 적분이 1이어야 PDF의 조건을 충족하기 때문이다. 그러한 분포를 따르는 Random Variable을 $U \sim Unif (a, b)$ 라고 한다.

따라서 $U$ 는 어떠한 사건들에 대하여 $[a, b]$ 사이의 값을 치역으로 가진다.

$(- \infty, \infty)$ 에 대해서는 정의되지 못하는데, 모든 구간에 대해서 확률이 0이 되어 확률의 합이 1이 되어야 한다는 조건을 만족시키지 못하기 때문이다.

따라서 이의 CDF $F (x)$ 는

F (x) = ⎩ ⎨ ⎧ 0 \frac{x - a}{b - a} 1 if x < a if a \leq x \leq b if x > b

와 같이 선형적으로 증가한다.

Expectation and Variance

E [X] = \int_{a}^{b} x \cdot \frac{1}{b - a} d x = \frac{1}{b - a} [\frac{x ^{2}}{2}]_{a}^{b} = \frac{1}{b - a} (\frac{b ^{2}}{2} - \frac{a ^{2}}{2}) = \frac{1}{2 ( b - a )} (b - a) (b + a) = \frac{a + b}{2}

V [X] = E [X^{2}] - (E [X])^{2} = E [X^{2}] - (\frac{a + b}{2})^{2}

이 때, $E [X^{2}]$ 는 LOTUS에 의해 $\int_{a}^{b} x^{2} \cdot \frac{1}{b - a} d x = \frac{1}{b - a} (\frac{b ^{3}}{3} - \frac{a ^{3}}{3})$

V [X] = \frac{1}{b - a} (\frac{b ^{3}}{3} - \frac{a ^{3}}{3}) - (\frac{a + b}{2})^{2} = \frac{b ^{2} + ab + a ^{2}}{3} - \frac{a ^{2} + 2 ab + b ^{2}}{4} = \frac{( b - a ) ^{2}}{12}

Universality of the uniform distribution

U \sim Unif (0, 1)

를 통해 어떠한 continious 확률 분포든 그를 따르는 확률 변수를 만들어 낼 수 있다.

모든 확률분포의 CDF는 그 치역이 반드시 $[0, 1]$ 이며, 증가하는 함수이다. 그리고 $U$ 는 어떠한 사건이든 $[0, 1]$ 사이의 값으로 치환하여 주는 함수이다. 따라서 만들어내고자 하는 확률분포의 CDF $F (x)$ 를 먼저 설정하고, 항상 증가하는 함수이므로 역함수가 존재한다. 그 역함수를 이용해 그를 따라는 확률 변수를 만들 수 있다.

그 역함수 $F^{- 1} (u)$ 는 정의역이 $[0, 1]$ 이 되고, $u$ 는 결국 확률 값들의 합( $P (X \leq x) = u = F (x)$ )이다. 이는 $X$ 의 CDF가 $F (x)$ 와 동일하다는 의미이므로, $X$ 는 그 확률 분포를 따른다.

따라서 균등 분포 $U \sim Unif (0, 1)$ 에 대해 만들고자 하는 확률 분포를 따르는 확률 변수 $X = F^{- 1} (U)$ 로 구해진다. 이는 다르게 말하면, $F (X)$ 를 $Y$ 라는 Random variable로 보자고 하면, 항상 $Y \sim Unif (0, 1)$ 임을 의미한다.

이 때, $F (x) = P (X \leq x) = 1 - e^{- x}$ 처럼 정의된다는 것은, $F (x)$ 의 $x$ 는 $X$ 로 치환하여 정의 가능함을 의미한다. 따라서 $X = F^{- 1} (X) = - ln (1 - U)$ 로 정의된다.

Property

$1 - U$ 역시도 동일한 $Unif (0, 1)$ 을 따르는 데, 균등한 확률로 랜덤하게 뽑은 point이므로, 0에서부터 보나 1에서부터 보나 동일하다. 따라서 $X = - ln (U)$ 도 위와 동일한 분포를 따른다고 할 수 있다.

이는 Linear Trnasformation의 일부라고도 볼 수 있는데, 균등 분포 $U$ 에 대해서 $a + b U$ 도 동일하게 균등 분포를 따른다.